Mathijsen bắt đầu sự nghiệp ở SV VOAB ở Goirle sau khi tham quan một buổi tập của một người bạn khi còn nhỏ. Năm 9 tuổi anh rời đội bóng và gia nhập học viện Willen II Tilburg. ANh được đôn lên đội 1 lần đầu tiên vào mùa giải 1998-99, có trận ra mắt vào ngày 27 tháng 2 năm 1999 ở trận gặp FC Utrecht. Sau 6 mùa giải chơi cho Willem II, anh bị bán sang AZ Alkmaar của huấn luyện viên Co Adriaanse. Tuy nhiên anh có một quãng thời gian khó khăn trong việc có chân trong đội chính ở Alkmaar và trong quãng thời gian đó anh còn bị chấn thương.

Sau khi về đích ở vị trí thứ 2 ở Erendivise vào năm 2006, Mathijsen chuyển sang Đức để chơi cho Hamubrg SV với giá 6 triệu euro nơi anh được chơi cùng các người đồng hương là Rafael van der Vaart và Nigel de Jong. Anh ghi bàn thắng thứ 2500 cho Hamburg vào ngày 20 tháng 10 năm 2007 trong trận gặp VfB Stuttgart.

Vào tháng 11 năm 2008, Mathijsen ký hợp đồng mới với đội bóng có thời hạn tới mùa hè 2012.[1]